Mozak je lenj – to nije izmišljotina veštačke inteligencije

Ljudi u poslednje vreme često iskazuju zabrinutost da će nas zaglupleti veštačka inteligencija. Sa dobijanjem brzih i lakih odgovora, čovek neće imati želju da aktivira mozak i razmišlja dalje.

Na prvi pogled ima osnova u ovom strahovanju. Međutim, valjalo bi priznati da lenjost mozga nije posledica savremene tehnologije. Psiholozi smatraju da je reč o mnogo starijem obrascu ljudskog ponašanja, koji samo u novom tehnološkom okviru dobija drugačije značenje.

Mozak štedi energiju

Ljudska osobina da vole gotova rešenja postoji oduvek. Ne zato što su lenji ili nezainteresovani, već zato što je ljudski mozak razvijen tako da stalno traži način da uloži što manje mentalnog napora.

Kada je Danijel Kaneman, dobitnik Nobelove nagrade za ekonomiju, opisao dva sistema mišljenja, promenio je način na koji psiholozi razumeju donošenje odluka. Prvi sistem radi brzo, automatski i gotovo bez napora. Zahvaljujući njemu prepoznajemo lica, razumemo jednostavne rečenice ili instinktivno reagujemo na opasnost. Drugi sistem je sporiji. On analizira, poredi, proverava i sumnja. Upravo njime rešavamo složene probleme, donosimo važne odluke ili procenjujemo da li je neka informacija zaista tačna. Problem je što je takav način razmišljanja skup. Ne u novcu, već u mentalnoj energiji.

Kaneman je često isticao da je „kognitivna lenjost duboko ugrađena u ljudsku prirodu“. Nije mislio da ljudi ne vole da razmišljaju. Mislio je da mozak, kad god može, bira lakši put, čime štedi trud, zapravo energiju koja je vrednost na kojoj počiva univerzum, pa i ljudski rod.

Dobijen odgovor ne znači i tačan odgovor

U tome se krije psihološka zamka. Kada dobijemo jasno, lepo napisano i logično objašnjenje, naš mozak često stekne osećaj da je problem rešen. Međutim, postoji velika razlika između toga da smo dobili odgovor i toga da smo proverili da li je odgovor tačan. To su dva potpuno različita mentalna procesa.

Prvi traje nekoliko sekundi. Drugi zahteva trud. Potrebno je pronaći druge izvore, uporediti informacije, razmotriti moguće greške i tek onda doneti zaključak. U svakodnevnom životu često preskočimo upravo taj drugi korak.

Ljudi ne procenjuju informacije samo po njihovoj tačnosti. Socijalna psihologija decenijama pokazuje da na našu procenu snažno utiče način na koji je nešto saopšteno. Ako neko govori mirno, sigurno i bez oklevanja, skloni smo da zaključimo da zna o čemu govori.

Psiholozi ovaj efekat povezuju sa pojmom kognitivne fluentnosti. Informacije koje se lako čitaju, jasno su strukturisane i deluju logično, naš mozak obrađuje sa manje napora. Upravo zbog toga često ih doživljavamo kao uverljivije i pouzdanije. Naravno, lakoća razumevanja nije isto što i istinitost, ali naš mozak te dve stvari često nesvesno povezuje.

Tu se gotovo neprimetno pojavljuje veštačka inteligencija. Kada danas razgovaramo sa AI sistemom, lako je steći utisak da se suočavamo sa potpuno novim fenomenom.Psiholozi, međutim, kažu da je nova uglavnom tehnologija. Ljudsko ponašanje ostalo je iznenađujuće slično.

Veštačka inteligencija daje odgovore koji su jasni, uredni i napisani sigurnim tonom. Retko okleva. Ne zastajkuje. Ne ostavlja utisak nesigurnosti. Takav način komunikacije veoma lako aktivira psihološke mehanizme koji postoje mnogo duže od samih četbotova.

Upravo zato pitanje nije samo koliko je AI tačan. Jednako je važno koliko lako ljudi prestanu da postavljaju dodatna pitanja.

Zašto verujemo autopilotu?

Mnogo pre nego što se pojavio ChatGPT, istraživači su opisali fenomen poznat kao automation bias, sklonost da ljudi automatizovanim sistemima veruju više nego sopstvenoj proceni. Prvi primeri primećeni su kod pilota koji su previše verovali autopilotu. Kasnije su slični obrasci uočeni u medicini, industriji, finansijama i navigacionim sistemima.

Na prvi pogled deluje logično da je najveći problem ako AI često greši. Istraživače brine nešto sasvim drugo. Šta se događa kada sistem gotovo uvek daje dobar odgovor? Tada ljudi postepeno razvijaju naviku da ga više ne proveravaju.

Drugim rečima, najveći rizik možda ne nastaje onda kada je tehnologija nepouzdana, već upravo onda kada je dovoljno dobra da kod korisnika uspava kritičko razmišljanje. Poverenje nije problem, ali automatsko poverenje jeste.